Les agents LLM autonomes : risques et défis scientifiques
Introduction
Les inscriptions sont ouvertes! Ce semestre thématique se déroulera à Montréal, au Campus MIL de l’Université de Montréal. Nous encourageons les chercheuses et chercheurs canadiens intéressés à participer à ces ateliers (virtuellement ou en personne) pour établir des collaborations et participer à ces discussions déterminantes.
À l’heure où les grands modèles de langage transforment déjà notre quotidien, une nouvelle révolution est en marche dans les laboratoires de recherche et le monde industriel : celle des agents autonomes. IVADO, pôle d’excellence en IA, organise un semestre thématique consacré à cette technologie émergente qui soulève autant d’espoirs que de questions.
D’août à décembre 2025, le campus de l’Université de Montréal deviendra l’épicentre mondial de la réflexion sur ces entités artificielles capables de nous représenter, d’agir de manière indépendante dans le monde et de réaliser des tâches complexes. Une évolution majeure dont les implications dépassent largement le cadre technologique au vu de leurs impacts potentiels sur la société.
Si les grands modèles de langage ont déjà démontré des capacités impressionnantes dans la génération de texte ou de code, le passage à l’autonomie représente un saut qualitatif considérable. Les agents autonomes émergents, créés avec des outils comme Operator et Claude, peuvent aujourd’hui accomplir diverses tâches en ligne : faire des achats, publier sur les réseaux sociaux et utiliser différentes applications (calendrier, email, services bancaires). Ces capacités montrent leur potentiel d’action autonome, tant dans les environnements numériques que physiques. Face aux nombreux défis techniques qui restent à maîtriser, il devient essentiel d’anticiper et de relever les enjeux techniques, éthiques, économiques et sociétaux que soulèvent ces nouvelles technologies.
- Comment créer des agents capables d’opérer dans des environnements complexes sans supervision humaine constante ?
- Comment garantir leur fiabilité et leur sécurité ?
Ce semestre thématique rassemblera chercheuses et chercheurs de disciplines autrefois cloisonnées – traitement du langage naturel, vision par ordinateur, robotique, éthique – désormais appelées à collaborer étroitement face à ce défi scientifique majeur.
- Bootcamp : État actuel des agents (12 au 15 août)
- 1er atelier : Évaluer et améliorer les capacités et la sécurité des agents (3 au 6 octobre 2025)
- 2e atelier : Déploiement d’agents autonomes : leçons, risques et impact dans le monde réel (17 au 20 novembre 2025)
Coorganisation scientifique

IVADO
McGill
Mila
Siva Reddy est professeur adjoint à l’École d’informatique et de linguistique de l’Université McGill, titulaire d’une chaire CIFAR d’IA au Canada, membre du corps professoral de l’Institut d’IA Mila Québec et chercheur à ServiceNow Research. Il codirige le McGill NLP Group. Auparavant, il a été chercheur postdoctoral à l’université de Stanford et titulaire d’une bourse de doctorat Google à l’université d’Édimbourg. Ses recherches portent sur l’apprentissage de la représentation du langage et plus particulièrement sur le raisonnement, l’ancrage, la modélisation conversationnelle et la sécurité.

UC Berkeley
Dawn Song est professeur d’informatique à l’UC Berkeley et codirectrice du Berkeley Center for Responsible Decentralized Intelligence. Ses recherches portent sur l’IA et l’apprentissage profond, la sécurité et la protection de la vie privée, et la technologie de décentralisation. Elle a reçu plusieurs prix, notamment la bourse MacArthur, la bourse Guggenheim, le prix CAREER de la NSF, la bourse de recherche Alfred P. Sloan, le prix TR-35 de la MIT Technology Review, le prix de l’innovation exceptionnelle de l’ACM SIGSAC et plus de 10 prix Test-of-Time et prix du meilleur article décernés lors de conférences de premier plan sur la sécurité informatique et l’apprentissage profond. Elle a été reconnue comme l’universitaire le plus influent (AMiner Award), car elle est l’universitaire la plus citée dans le domaine de la sécurité informatique. Elle est membre de l’ACM et de l’IEEE. Elle a obtenu son doctorat à l’université de Berkeley. Elle est également une entrepreneuse en série et a été nommée sur la liste des 100 fondatrices par Inc. et sur la liste des innovateurs de Wired25.

IVADO
Université de Montréal
Mila
Yoshua Bengio est professeur titulaire au Département d’informatique et de recherche opérationnelle de l’Université de Montréal, ainsi que conseiller spécial et directeur scientifique fondateur d’IVADO et conseiller scientifique et fondateur de Mila. Il est titulaire d’une chaire d’IA du CIFAR Canada et a reçu le prix A.M. Turing 2018, considéré comme le « prix Nobel de l’informatique ».
Il est membre de la Royal Society du Royaume-Uni et de la Société royale du Canada, officier de l’Ordre du Canada, chevalier de la Légion d’honneur de France et membre du Conseil consultatif scientifique des Nations unies chargé de fournir des avis indépendants sur les percées scientifiques et technologiques.

UC Berkeley
Alane Suhr est professeur adjoint d’informatique à l’université de Berkeley, affiliée au laboratoire de recherche en IA de Berkeley (BAIR). Les recherches d’Alane portent sur l’utilisation et l’apprentissage du langage dans les interactions, en particulier les interactions situées et collaboratives, les agents qui utilisent le langage et les systèmes agentiques conditionnés par le langage, et l’ancrage du langage dans la perception et l’action.

IVADO
Polytechnique Montréal
Université de Montréal
Mila
Chris Pal est un expert de renommée mondiale dans le domaine de l’apprentissage profond, de l’apprentissage automatique probabiliste et de l’IA appliquée. Il a reçu à deux reprises (en 2017 et en 2009) le prix Google focused faculty Research Award. Il apporte à l’équipe une expertise multidisciplinaire unique grâce à son solide bagage théorique (DL, modèles graphiques, causalité, etc.) ainsi qu’à son expertise clé en traitement du langage naturel et en vision par ordinateur appliquée à un large éventail de domaines d’application (imagerie médicale dans les soins de santé, imagerie satellite pour la biodiversité et le changement climatique, conduite autonome dans le domaine des transports).

The Ohio State University
Yu Su est professeur assistant distingué d’informatique et d’ingénierie à l’Ohio State University, où il codirige le groupe NLP. Il s’intéresse de près à l’intelligence artificielle, et plus particulièrement au rôle du langage en tant que vecteur de raisonnement et de communication. Ses travaux récents couvrent de nombreuses facettes des agents d’intelligence artificielle, notamment la mémoire, la planification, la mise à la terre et la sécurité. Il est titulaire d’une bourse de recherche Sloan 2025 et a reçu plusieurs prix pour ses articles de la CVPR et de l’ACL.

University of Waterloo
Vector Institute
Victor Zhong est professeur adjoint à la David R. Cheriton School of Computer Science de l’Université de Waterloo, et titulaire d’une chaire CIFAR d’IA au Canada à l’Institut Vecteur. Ses recherches portent sur des méthodes efficaces d’apprentissage automatique qui interprètent le langage pour le généraliser à de nouveaux problèmes. Son groupe, le Reading to Learn Lab, travaille sur les agents linguistiques ancrés, l’adaptation au temps de test et l’apprentissage à partir du retour d’information linguistique. Victor est titulaire d’un doctorat en informatique de l’université de Washington, d’une maîtrise en informatique de l’université de Stanford et d’une licence en ingénierie informatique de l’université de Toronto.
Ateliers
Bootcamp : État actuel des agents



1er atelier : Évaluer et améliorer les capacités et la sécurité des agents







2e atelier : Déploiement d’agents autonomes : leçons, risques et impact dans le monde réel







Inscription
L’inscription est obligatoire pour assister en personne aux ateliers du semestre thématique et accéder à l’enregistrement en avant-première. Le nombre de places pouvant être limité, il est conseillé de s’inscrire rapidement.
Veuillez suivre le lien ci-dessous pour vous inscrire au Semestre Thématique :
Les tarifs par activité sont les suivants:
Étudiant(e) : 40$
Post-Doc. / Chercheur(euse) en début de carrière : 70$
Chercheur (Professeur(e), Chercheur(euse) principal(e), etc) : 120$
Membre industriel : 240$ (Uniquement le Bootcamp)
Le paiement intégral est requis lors de l’inscription à chaque activité. Les prix incluent les taxes.
Veuillez noter :
1. Les activités se dérouleront en anglais.
2. IVADO prend régulièrement des photos et des vidéos des activités pour utilisation dans des vidéos, publications et matériaux promotionnels.
Logements
Afin de vous aider dans l’organisation de votre voyage, nous avons mis à votre disposition une liste d’hôtels et de résidences qui pourraient vous intéresser.
Nous vous recommandons également de consulter le site https://www.mtl.org/fr pour découvrir les divertissements, événements, logements, et autres informations utiles.
Hôtels et Résidences
Le Square Phillips Hôtel & Suites
1193, Place Phillips
Montréal, QC, H3B 3C9
Téléphone : +1 866-393-1193
info@squarephillips.com
Pour obtenir les tarifs préférentiels d’IVADO, informez l’hôtelier lors de la réservation.
Terrasse Royale
5225, Côte-des-Neiges
Montréal, QC, H3T 1Y1
Téléphone : 514 739-6391
info@terrasse-royale.com
Residence Inn Marriott Montreal Midtown
6785, boulevard Décarie
Montréal, QC, H3W 3E3
Téléphone: 514-303-8888 / 1-888-303-8881
Courtyard Montreal Downtown
380 boul. René-Lévesque Ouest,
Montréal, QC, H2Z 0A6
Téléphone : 1 514-398-9999 / 1 800 678-6323
Residence Inn Montreal Downtown
2045 rue Peel
Montréal, QC, H3A 1T6
Téléphone : 514 982-6064
Château Versailles
1659, rue Sherbrooke Ouest
Montréal, QC, H3H 1E5
Téléphone : 514 933-3611 / 1 888 933-8111
info@versailleshotels.com
La Maison McKenna
5301, rue Mckenna
Montréal, QC, H3T 1T9
Téléphone : 514 738-2053
info@maisonmckenna.ca
Hôtel SENS
1808, rue Sherbrooke Ouest
Montréal, QC, H3H 1E5
Téléphone : 514 933-8111 / 1 888 933-8111
reservations@sensmtlversailles.com
Hôtel Château de l’Argoat
524, rue Sherbrooke Est
Montréal, QC, H2L 1K1
Téléphone : 514 842-2046
chateauargoat@videotron.ca
Le Nouvel Hôtel
1740 boul. René-Lévesque Ouest
Montréal, QC, H3H 1R3
Téléphone : 514 931-8841 / 1 800 363-6063
info@lenouvelhotel.com
Autres suggestions
Visiteuses et visiteurs à long terme

Joyce Chai est professeure au département d’ingénierie électrique et d’informatique de l’université du Michigan. Elle est titulaire d’un doctorat en informatique de l’université Duke. Ses recherches portent sur le traitement du langage naturel, l’IA incarnée et la collaboration entre l’homme et l’IA. Ses travaux actuels explorent l’intersection entre le langage, la vision et la robotique afin de permettre une communication contextualisée avec des agents incarnés. Elle a reçu le prix NSF Career Award. Elle a également reçu plusieurs prix avec ses étudiants (par exemple, le prix du meilleur article long à l’ACL 2010, les prix du meilleur article à l’EMNLP 2021 et à l’ACL 2023, et la première place au Amazon Alexa AI Simbot Challenge 2023). Elle est membre de l’ACL.

Abhik Roychoudhury est professeur titulaire de la chaire Provost en informatique à l’Université nationale de Singapour (NUS), où il dirige une équipe de recherche sur les logiciels fiables et sécurisés (TSS). Il est conseiller principal chez SonarSource, suite à l’acquisition de sa spin-off AutoCodeRover, spécialisée dans les agents IA pour le codage. Il a obtenu son doctorat en informatique à l’université Stony Brook en 2000 et est membre du corps enseignant de la NUS School of Computing depuis 2001. Le groupe d’Abhik à la NUS s’est concentré sur l’analyse symbolique des programmes, ainsi que sur les applications de l’analyse des programmes dans des domaines tels que la sécurité informatique, l’IA agentielle ou les systèmes cyber-physiques. Ces travaux ont été récompensés par divers prix, notamment le prix du document le plus influent (Test-of-time award) de la Conférence internationale sur le génie logiciel (ICSE) pour la réparation de programmes (basée sur l’analyse symbolique), et le prix IEEE New Directions Award 2022 (conjointement avec Cristian Cadar) pour ses contributions à l’exécution symbolique.
Abhik a été le premier lauréat du prix NUS Outstanding Graduate Mentor Award 2024. Les doctorants diplômés de son équipe de recherche ont obtenu des postes d’enseignants dans de nombreuses institutions universitaires de premier plan. Il a occupé diverses fonctions au sein de la communauté de recherche en génie logiciel, notamment en tant que président des principales conférences dans ce domaine, ICSE (en 2024) et FSE (en 2022). Il est actuellement président du comité directeur de la FSE. Il est membre du comité de rédaction de Communications of the ACM. Il est l’actuel rédacteur en chef de l’ACM Transactions on Software Engineering and Methodology (TOSEM). Abhik est membre de l’ACM, reconnu pour ses contributions à la réparation automatisée de programmes et aux tests de robustesse.

Ivan Titov est professeur titulaire aux universités d’Édimbourg et d’Amsterdam. À Édimbourg, il dirige le Centre de formation doctorale en traitement du langage naturel et l’unité ELLIS locale. Ses recherches portent sur le développement de modèles linguistiques fiables, robustes, interprétables et contrôlables. Il a reçu des prix pour ses articles lors de conférences de premier plan (notamment ACL et EMNLP) et des bourses telles que la bourse ERC et le prix néerlandais Vici. Ivan est membre de Turing, membre d’ELLIS et codirecteur du programme ELLIS NLP. Il a également été président du programme ICLR et CoNLL, et rédacteur en chef de TACL et JMLR.